Малайзия и Индонезия станаха първите, които блокираха Grok на Мъск заради AI deepfakes

КУАЛА ЛУМПУР, Малайзия (AP) — Малайзия и Индонезия станаха първите страни, които блокираха Grok, чатбота с изкуствен интелект, създаден от xAI на Илон Мъск, откакто управляващите споделиха, че е бил злоупотребяван за генериране на полово очевидни и неконсенсусни изображения.

Ходовете отразяват възходяща световна угриженост по отношение на генеративните AI принадлежности, които могат да създават реалистични изображения, тон и текст, до момента в който съществуващите защитни ограничения не съумяват да предотвратят злоупотребата с тях. Чатботът Grok, наличен посредством обществената медийна платформа X на Мъск, беше подложен на критика за генериране на манипулирани изображения, в това число изображения на дами в бикини или полово очевидни пози, както и изображения, включващи деца.

Регулаторите в двете страни от Югоизточна Азия обявиха, че съществуващите контроли не предотвратяват основаването и разпространяването на подправено порнографско наличие, изключително включващо дами и малолетни. Правителството на Индонезия краткотрайно блокира достъпа до Grok в събота, последвано от Малайзия в неделя.

„ Правителството преглежда половите дълбоки фалшификации без единодушие като съществено нарушаване на човешките права, достолепието и сигурността на жителите в цифровото пространство “, сподели министърът на връзките и цифровите въпроси на Индонезия Меутя Хафид в изказване в събота.

Министерството сподели, че мярката има за цел да отбрани дамите, децата и по-широката общественост от подправено порнографско наличие, генерирано благодарение на AI.

Бъдете в крайник с новините и най-хубавото от AP, като следвате нашия канал в WhatsApp.

Първоначалните констатации демонстрираха, че Grok няма ефикасни защитни ограничения, с цел да спре потребителите да основават и популяризират порнографско наличие въз основа на действителни фотоси на поданици на Индонезия, сподели Александър Сабар, общоприет шеф на надзора на цифровото пространство, в настрана изказване. Той сподели, че сходни практики рискуват да нарушат поверителността и правата върху изображенията, когато фотосите се манипулират или споделят без единодушие, причинявайки психическа, обществена и репутационна щета.

В Куала Лумпур Малайзийската комисия по връзките и мултимедията подреди краткотрайно ограничение на Grok в неделя по-късно, което сподели, че е „ повтаряща се корист “ с инструмента за генериране на неприлични, очевидни полови и манипулирани изображения без единодушие, в това число наличие, включващо дами и малолетни.

Регулаторът сподели, че известията, издадени този месец до X Corp. и xAI, изискващи по-строги защитни ограничения, са провокирали отговори, които разчитат основно на механизми за докладване на потребителите.

„ Ограничението се постанова като превантивна и пропорционална мярка, до момента в който текат правни и регулаторни процеси “, се споделя в известието, като се прибавя, че достъпът ще остане блокиран, до момента в който не бъдат въведени ефикасни защитни ограничения.

Стартирал през 2023 година, Grok е свободен за потребление в X. Потребителите могат да му задават въпроси в платформата на обществените медии и да маркират изявления, които са основали непосредствено, или отговори на изявления от други консуматори. Миналото лято компанията добави функционалност за генериране на изображения, Grok Imagine, която включва по този начин наречения „ лют режим “, който може да генерира наличие за възрастни.

Ограниченията за Югоизточна Азия идват на фона на възходящия надзор на Grok на други места, в това число в Европейския съюз, Англия, Индия и Франция. Миналата седмица Grok ограничи генерирането и редактирането на изображения до плащащите консуматори след световната реакция против сексуализираните дълбоки подправени изображения на хора, само че критиците споделят, че не е решило изцяло казуса.